崔宇路等 | 教育人工智能应用的困境、成因及对策
摘要：教育人工智能的发展正冲击着传统的教育格局，促使教师和研究者开始深度反思教育人工智能的应用实践。文章指出，教育人工智能应用的困境主要体现在伦理、应用、管理三个层面，深刻影响了传统的课堂教学和学习。在此基础上，文章从关键技术、人机矛盾、教师素养等角度进一步解构了教育人工智能应用困境产生的成因。最后，文章提出了教育人工智能应用困境的应对策略，包括理性思虑教育人工智能应用的多重困境、时刻警惕新兴技术变革产生的人机矛盾、正确审视当前教育人工智能的角色属性、合理建构公开透明的协同监管生态机制，以期为教育人工智能实践应用提供可行参考。
关键词：人工智能；教育人工智能；关键技术；人机矛盾；教师素养
引言
2021年，互联网信息办公室在发布的《数字中国发展报告（2020年）》中指出，截至2020年底，我国中小学（含教学点）互联网接入实现100%，未联网学校动态清零，98.35%的中小学已拥有多媒体教室，教育信息化2.0成效显著[1]。教育的信息化促使教育人工智能在教、学、考、评、管等各个环节发挥着重要作用，教育人工智能也日益成为促进教育均衡发展、实现教育公平、提高教育质量的重要手段[2]。在多个政府文件的指导下，教育人工智能的开展如火如荼，相关政策、研究、实践案例如雨后春笋般出现在中小学、大学等各个领域中，教学过程、方法、手段、平台都在发生着深刻的“变革”[3]。从教学过程审视，教育人工智能可以更好地促使教师个性化教学的发生，基于算法的决策过程也使得复杂技能和知识的实时评估成为可能[4]。而应用于课堂的教育人工智能分析系统，为实时模式下学生参与度评估、学习风险识别、教学活动调整提供了有效的证据支持[5]。
然而，研究者在肯定技术变革教育教学的同时，也逐渐对教育人工智能产生批判和担忧。“乐观主义者”认为，教育人工智能将替代教师、学生、管理者；而“悲观主义者”认为，教育人工智能仅改变了学习路径、环境等，并不能改变教育的结构、模式和学习的本质[6]。这种对教育人工智能的忧虑，使人们不得不思考如何培养符合人工智能时代的“原住民”，并实现人机和谐共处。尽管人工智能技术已在许多领域展现了巨大的应用潜力，但现阶段的人工智能在智力上根本不像人类[7]。教育人工智能的发展就更显“拙劣”了——按照人类思想和既有程序辅助教学的行为，如智能阅卷、综合考评等仍处于弱人工智能（Artificial Narrow Intelligence，ANI）的水平，与强人工智能（Artificial General Intelligence，AGI）和超人工智能（Artificial Super Intelligence，ASI）更是相去甚远[8]。有研究者指出，目前教育人工智能在教育数据、教育业务应用、技术角色、教师队伍与课程体系上均存在不同程度的建设困境[9]。在教育人工智能融入学校教育的过程中，其教育价值、教学体验、协同机制、安全伦理等诸多环节也引发了研究者的关注和担忧[10]。
时至今日，虽然世界各地的人工智能应用广泛，但当前教育领域中的人工智能相关概念还处于含混不清的状态[11]，教育人工智能应用的现实困境就更值得进一步思虑了。虽然已有教育研究者开始关注到这一议题的重要性，但少有研究能够系统审视、梳理当前教育人工智能的困境和成因，并提出消解困境的相应对策。为此，本研究试图从困境、成因等角度探讨当前现实问题，并提出应对教育人工智能应用困境的对策，以期在一线教育实践和理论研究中发挥教育人工智能的价值属性，促进教育人工智能的实践应用。
一 教育人工智能应用的困境
尽管教育人工智能的构成由于审视视角的差异而不尽相同，但从技术构成角度审视，教育人工智能在教育数据收集、算法感知、教育应用等不同层面都可能存在实践上的难题[12]。总结相关研究成果可以发现，这些困境以教育大数据的获取、应用和挖掘为核心相互缠绕，具体困境主要体现在伦理、应用、管理三个层面，如图1所示。
图1 教育人工智能应用困境的三个层面
1 伦理困境
①数据。数据伦理关注数据的产生、记录、监管、处理、传播、共享和使用。从该层面审视，课堂管理、教学评测、教学行为、教育资源等都是教育数据的重要来源。在数据伦理困境中，最重要的问题就是“隐私”，即个人身份数据在收集、分析、传播和使用过程中所产生的隐私问题。个人的隐私问题主要涉及数据泄露，而面对更大范围的教育大数据，群体隐私数据的泄露问题可能导致严重的伦理危机：学生隐私被暴露在教育场域之外，使学生被数据“结构化”，其内心的“恐惧”被无限放大、“自由”被剥夺[13]。此外，多场域中存在大量半结构、非结构化等标准不一的教育数据，使高质量教育数据难以准确收集、分析和大规模应用。因此，确保教育大数据的安全和可靠，便于高质量教育数据的收集和管理，是数据伦理层面的重点。
②算法。随着技术的发展，回归、聚类、贝叶斯、深度学习、自动编码器以及各类神经网络算法等纷纷出现，使数据算法成为发现潜在教育数据价值的重要工具，技术依赖渐增。而语音、图像、文字、生理指标等数据的获取，使多模态教育数据分析成为教学过程解析的关键步骤。然而，教育人工智能使用计算模型对教学过程、教学对象进行量化，使丰富且复杂的教育失去了具有价值的成分——教育活动丧失了人格、情感，基于大规模教育数据的分析和预测也使学生面临同质化发展的风险[14]。此外，基于历史记录和既往数据的算法评价，也使学生创造性思维发展和创新性活动开展受限，算法偏见日益凸显。
③实践。教育人工智能的价值在于应用，因此解决实践过程中出现的伦理危机愈发重要。相对于隐私泄露、大数据“杀熟”等数据伦理，实践伦理可能更易在应用中被忽视。实践伦理困境的产生首先源于算法的制约，因为技术的产生以解放和发展生产力为目标，但人工智能技术的应用可能使人们局限于技术的“牢笼”；另外，实践伦理困境又与教育数据应用紧密相关，在提供便利的同时，教育人工智能可能带来的能力弱化、认知下降等实践问题也已引起学者的担忧[15]。过度应用教育人工智能推荐的教师，也使得实践过程中对教学目的、教学过程的诸多思考被逐渐“削弱”和“钝化”，教育“附庸化”和“依赖化”逐渐产生，同质化风险增加。
2 应用困境
①情感。教育人工智能机器人的出现，使“陪伴型”机器人越来越多地被应用于家庭教育，人们把陪伴的义务交给人工智能机器，以减轻自身的负担。然而，必要的陪伴是儿童成长和情感发展的重要方式，针对教育人工智能在儿童人格发展和心理健康等方面的责任考量，这种人机互动导致的“欺骗”所产生情感上的危机值得人们深入思虑[16]。此外，高度自动化的教育大数据算法，使得学生“同质化”的风险显著增加，这一过程也显著削弱了教师与学生之间情感的相互联系，弱化了人格培养在师生交流过程中的重要价值。
②道德。在教育人工智能的应用过程中，是否“向善”成为了人们评判教育人工智能道德尺度的潜在标准。为教师减负和为教学增效，并非教育人工智能技术应用的全部初衷。正如中小学课堂中使用“监测头盔”来判断学生学习状态，虽然以改善学习为目标，但侵犯了学生的隐私，将学生当成可以被时刻监管的“机器”，这显然违背了人性道德[17]。在教育人工智能的实际应用中，存在大量因技术误用而导致的偏见和歧视问题，而评判技术用途的重要标准之一就是能否满足道德规范，而非过分吹捧人工智能的“唯技术论”。
③创造。教育人工智能以强大的运算和分析能力，推动了教学的自动化、程序化和精准化。然而，教育人工智能的技术优势未必能完全转化为教育效能，原因在于教育人工智能依赖于硬件、软件和设计人员的限制，致使人工智能难以承担具有创造属性的教育工作[18]。研究者指出，教学作为复杂且具有创造力的实践活动，师生、生生的思想和情感交互过程不仅涵盖知识，更重要的是情感、价值观和道德的互动[19]。因此，教育人工智能何以支持一项创造性的教育工作，这个问题值得深度思虑。
3 管理困境
①管理。教育大数据滥用、隐私泄露、违背伦理等问题的发生，正是长期以来各地方政府缺乏对教育大数据的有效监管和惩戒而导致的，这种监管的缺失也导致了技术的滥用[20]。而教育大数据安全示范应用和监管系统的缺失，教育人工智能产品设计、应用过程中伦理内嵌不足，进一步使教育数据基础设施、数据分级、权限控制、数据审计等多方面的管理风险显著增加。在这一过程中，教育大数据的泄密、误用甚至滥用普遍发生，教育数据安全遭受公众质疑，教育人工智能的“不信任感”逐渐引发人们的关注。
②协同。教育人工智能涉及范围极广，应对教育人工智能带来的挑战，不是一个领域、一个部门、一个机构就能独立完成。现有的理论和实践研究表明，人们较少关注教育人工智能协同运行机制的系统运转。从利益相关者角度审视，教师和学生关注教育人工智能实践，教育研究者关注教育人工智能理论支撑，教育企业和技术开发者关注教育人工智能产品研发及其应用，而政府机构关注教育人工智能教材和基础设施建设。基于多方参与的教育人工智能在伦理规范和实践应用中也显著缺乏监管和协同交流的生态机制，致使应用风险显著增加。从教育生态学的视角来解释这一过程，可以认为教育人工智能的应用和部署是对传统学校教育的革新，但仍显著缺乏教育生态系统视域下的协同实践与伦理共同体的整体规约。
③共享。开放共享是教育人工智能应用管理忧虑观的重要维度，主要阐释了教育人工智能对谁开放和共享、如何开放和共享的忧虑。教育大数据的滥用，主要体现为应用对象的界定模糊，除监管的难题外，还面临教育人工智能数据对谁开放、开放的时机和程度如何常处于一个混沌的状态等问题。目前，教育应用企业的数据存在许多“数据孤岛”，针对同一所学校，企业与企业间的教育大数据无法有效开放和共享，因此如何利用这些数据成为研究的难题。这一现象表明，教育人工智能在大规模开放共享的整体机制上仍缺失有效的监督、管理和决策机制。
二 教育人工智能应用困境的成因
教育场景的复杂变化，使教育人工智能难以在实践和应用中发挥其重要价值。审视教育教学实践中教育人工智能的应用过程，可以发现关键技术、人机矛盾和教师素养成为了当前教育人工智能应用困境产生的重要原因。
1 教育人工智能关键技术有待深入
教育人工智能关键技术是产生伦理困境的原因之一，由此引发了研究者对数据、算法和实践伦理的关注。教学和技术使用的多元性，使技术并非总对学生和教师起到正面作用，而由此引发的伦理失范损害了学生和教师的多重利益[21]。虽然教育人工智能被广泛应用于“教学考评管”“智能导学”“学情监测”等场景化建设，能够助力智能化的备课、教研、学习辅助、考评、评价等个性化和智能化的应用[22]，但人工智能技术尚处于弱人工智能的发展阶段，其教育相关的关键技术仍有待深入发展。关键技术发展的受限，使教育人工智能赋能的领域相对单一，这也进一步制约了教育的规模化、常态化应用，导致难以从教育的基本原理出发来揭示教育发生的一般规律[23]，基于同理心、情绪乃至长期互动的教育人工智能大规模应用就更难进行，致使其多样性仍有待挖掘[24]。研究者强调，与所有科学领域一样，投入使用这种不成熟的技术是“非常危险的”[25]。实际上，关键技术的研发依赖于高质量的教育大数据，而如何通过关键技术采集、处理、分析教育大数据，需要基于教育理论与教育实践，破解并深入探究学生学习和教师教学过程中发生的一般规律。尤其是教育教学过程中产生的各类标准不一、结构多样的教育多模态数据，应当成为关键技术研发与应用的重要路向，从而为伦理支持下的个性化教学提供精准支持。
2 新兴技术变革使人机矛盾凸显
新兴技术变革虽然影响了人类生产生活的诸多方式，但面对人工智能的介入，人们常常持有一种怀疑论和威胁论，这使得人机矛盾日益凸显，也逐渐引发了教育人工智能应用在情感、道德和创造层面的诸多困境。人们总倾向于接受自己了解、熟知的事物，而对新兴的事物表示恐惧——这与“恐怖谷”理论的观点一致，即人工智能越接近人类，人类就越会产生恐惧。教育人工智能的危险也同样如此：教育人工智能仿佛一只“黑箱”，人们置身其中，却不知其边界在哪。这表明，人们往往不知道教育人工智能如何发挥其优势，对学生的综合影响也有待深入探究。教育业务的复杂和多样属性，学校、学科、教师、学生、授课方式的诸多变化，使得目前的技术无法满足个性化学习的需要[26]，由此带来的人机矛盾日益凸显，同时也使其应用受限。在这个过程中，学生的好奇心、崇拜感被教育人工智能“简化”“量化”甚至“消解”，教育逐渐被这种“黑箱”所“控制”[27]。平衡新兴技术变革带来的矛盾，使其在具有情感、道德和创造属性的教育工作中发挥优势，逐渐成为了教育研究者关注的重要话题。
3 教师素养成为时代发展核心议题
人工智能技术的广泛应用，促使人类开始担忧各行业被“机器替代”是否会成为现实。从时代的发展变革角度来说，全球各行业都将面临这种“替代”的风险，对教师来说这种风险也同样存在。传统的教师发展专注于对知识和技能的教育，而教育领域中的人工智能应用促使人们开始关注教育人工智能支持下的教师身份角色和能力素养[28]。面对教育人工智能应用的新诉求，教师亟需形成智能教育素养，但目前面临的现实问题是在教育人工智能的应用、管理乃至伦理等多个层面上教师显然难以满足新时代发展的需要，培养学生、实施精准教学就更难以下手[29]。这就使教育人工智能在应用、管理、伦理等多个维度上均存在一种衔接的矛盾，导致教师在教育人工智能应用中无法从高阶思维、问题解决、知识迁移等多个层面评测学生的真实表现，而仅停留在机械式、程序化、浅层的学习层面[30]。因此，解决新兴技术变革背景下教师素养的革新问题，促进教师知识、能力素养的变革和发展，已经成为当前教育人工智能应用过程中的重点和难题。
三 教育人工智能应用困境的应对策略
上述分析表明，教育人工智能相关的关键技术、新兴技术变革带来的人机矛盾、教师素养发展的迫切需求，逐渐成为了教育人工智能困境产生的重要原因。为突破这些困境，需要利益相关者从困境认知、人机矛盾、角色属性、监管机制等视角提出应对策略。
1 理性思虑教育人工智能应用的多重困境
教育人工智能的应用困境涉及伦理、应用和管理多个层面，既涉及数据、算法，又涉及其在实践应用和管理工作中的具体问题。剖析具体困境，既是对教育人工智能的系统审视，也是部署实施教育人工智能的重要前提。发挥教育大数据的重要作用，需要理清教育大数据的价值所在，充分考虑教育大数据的伦理、应用和管理等多个层面的问题；还需要认识到教育人工智能是建立在技术框架的基础上，亟需突破当前教育人工智能的关键技术，以教育大数据为核心，解决在教育数据层、算法层、感知层、认知层和教育应用层可能出现的具体问题。此外，明确界定教育主体在教育人工智能应用过程中发挥何种作用，是确立和保障教育人工智能顺利实施的关键。从环境建设的角度审视，要着力推进“教育新基建”，以满足日益个性化和弹性化变迁的学习需求，更快适应“人人皆学、处处能学、时时可学”的新型学习生态环境；从技术变革的角度审视，要加快推进教育人工智能技术在学习、情感认知和师生交互过程中发挥的重要作用，以教育人工智能关键技术的突破为契机，实现学习环境、学习过程的深度变迁。
2 时刻警惕新兴技术变革产生的人机矛盾
教育人工智能伦理困境的消解，根源在于协调技术引发的人机矛盾。教育人工智能的应用，使基于教育大数据的精准教学模式成为可能。尽管在全国各地、各级教育系统中基于教育人工智能的教育教学模式被大规模地宣传和部署，然而人们对新兴技术产生的人机矛盾认知有限、忧虑不足，导致教育人工智能被大肆“鼓吹”，使教育人工智能带来的诸多隐患和风险被逐渐“遮蔽”。教育人工智能的大规模应用，依赖于教育大数据的系统决策，而这种系统决策的过程实际上又与教育教学的场域、对象乃至教育大数据的获取、应用流程紧密相连。因此，在努力突破教育人工智能关键技术的同时，还需警惕这种因技术变革产生的人机矛盾，需要回归教育的初心，从教育学、心理学、学习科学等多学科交叉的视角共同看待教育人工智能的应用问题，而非一味“吹捧”先进的技术。此外，一线教师应当努力践行和推广教育人工智能的示范性工作，既要按“样板间”推广大范围的教育实践案例、项目，又要合理看待、保持警惕甚至反思批判这种“教学示范”带来的教育困境，从而促进优质教学的发生。
3 正确审视当前教育人工智能的角色属性
在教育人工智能的应用困境破解过程中，教师扮演着主导者的角色，而正确审视教育人工智能与教师之间的复杂关系，需要关注教育人工智能在教师教学实践中所扮演的角色，理性认识并挖掘教育人工智能的潜力。教育与技术的发展历程可以大致分为依靠教师、互联网技术辅助、人工智能技术升级三个阶段，人工智能算法应用的目的在于因材施教，将教师、管理者从低级的重复劳动中解放出来[31]；从人与人工智能的协同作用来看，浅层教育人工智能应用的目的也在于把教师从冗长、乏味的流程性事物中解放出来，使其专注于解决复杂的、需要创造力和情感共鸣参与的事务之中，以提高教师的效率[32]。因此，教育人工智能应用的目标，应在于帮助教师从复杂、冗余、烦琐的日常工作中“解放”出来，提升教师的效率，使其有更多的时间和精力关心学生的核心素养和心理健康，并与学生进行平等互动，实施更加精准、个性化的教学，从而提升学生的综合素养和创新思维。此外，审视教育人工智能的应用过程，亟需教师发展并形成教育人工智能的智能素养，在教育数据收集、获取、分析和应用的过程中充分发挥教育人工智能的有效价值，进而增强对教学过程、教学对象、教学方法的理解和综合运用，使技术与教学“器”“道”合一，促进教育的“深层对话”。
4 合理建构公开透明的协同监管生态机制
教育人工智能管理困境的产生，源于监管生态机制的缺失。《国务院关于印发新一代人工智能发展规划的通知》强调，要“建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管”[33]。因此，要强化教育人工智能产品的应用和安全防护，应基于教育人工智能的研发、使用的全链路构建动态的评估评价机制，以监管措施切实保障教育人工智能在产品设计、实践应用过程中所涉及的诸多困境。此外，在教育人工智能的监管过程中，还需要整合多方对象，以共同参与教育人工智能的部署、应用和管理工作，这既需要政府主导、政策支持、标准制定，也需要企业和学校主动参与、积极应对。与此同时，大学或科研机构也应进行理论突破、产品和应用的研发升级，共同打造完善有效的教育人工智能协同监管生态机制。
四 总结和展望
教育均衡发展可以通过充足经费、恰当规划、务实建设在硬件设施上得以改善，学校管理的规范性和科学性也可以在一定时间内得到明显提高。但是，在教育人工智能大规模建设和应用的同时，还应合理思虑并时刻警惕教育人工智能在伦理、应用和管理层面存在的若干困境。基于上述理解，本研究梳理了当前教育人工智能应用的具体困境，探讨其成因并提出消解这些困境的相应对策，以期为教育人工智能的实践应用提供可行参考。审视未来的教育人工智能应用，既要关注新兴技术发展为个性化教学和学生综合素养培养带来的有利条件，更需研究者、教师和管理者认识到教育人工智能应用所处的现实困境。同时，利益相关者需要关注新兴技术变革下教师发展的核心议题，以公开透明的教育人工智能协同监管生态机制为依托，在理性思虑当前困境和人机矛盾的基础上，为教育人工智能困境的消解提供可行路径，共同推动优质、均衡的学校发展、学生发展和教师发展。
参考文献
[1]互联网信息办公室.数字中国发展报告(2020年)[OL].
[2]教育部.教育部关于印发《高等学校人工智能创新行动计划》的通知[OL].
[3]梁迎丽,刘陈.人工智能教育应用的现状分析、典型特征与发展趋势[J].中国电化教育,2018,(3):24-30.
[4]Chen X, Zou D, Xie H, et al. Two decades of artificial intelligence in education: Contributors, collaborations, research topics, challenges, and future directions[J]. Educational Technology & Society, 2022,(1):28-47.
[5]Fahimirad M, Kotamjani S S. A review on application of artificial intelligence in teaching and learning in educational contexts[J]. International Journal of Learning and Development, 2018,(4):106-118.
[6][19]张坤颖,张家年.人工智能教育应用与研究中的新区、误区、盲区与禁区[J].远程教育杂志,2017,(5):54-63.
[7]Boulton C.关于人工智能的六大担忧[OL].
[8][11]孟翀,王以宁.教育领域中的人工智能:概念辨析、应用隐忧与解决途径[J].现代远距离教育,2021,(2):62-69.
[9][12][26]杨现民,张昊,郭利明,等.教育人工智能的发展难题与突破路径[J].现代远程教育研究,2018,(3):30-38.
[10]刘德建,杜静,姜男,等.人工智能融入学校教育的发展趋势[J].开放教育研究,2018,(4):33-42.
[13]李芒,张华阳.对人工智能在教育中应用的批判与主张[J].电化教育研究,2020,(3):29-39.
[14][27]谭维智.人工智能教育应用的算法风险[J].开放教育研究,2019,(6):20-30.
[15]林晓峰,谢康.人工智能现状及其教育应用的理性思考[J].现代教育技术,2019,(8):12-17.
[16]王前,曹昕怡.人工智能应用中的五种隐性伦理责任[J].自然辩证法研究,2021,(7):39-45.
[17]孙田琳子.论技术向善何以可能——人工智能教育伦理的逻辑起点[J].高教探索,2021,(5):34-38、102.
[18]安涛.“算计”与“解蔽”:人工智能教育应用的本质与价值批判[J].现代远程教育研究,2020,(6):9-15.
[19][21]陈晓慧,卢佳,赫鹏.信息技术教学应用的伦理失范及其治理[J].开放教育研究,2019,(3):53-59.
[22]张海,崔宇路,余露瑶,等.人工智能视角下深度学习的研究热点与教育应用趋势——基于2006-2019年WOS数据库中20708篇文献的知识图谱分析[J].现代教育技术,2020,(1):32-38.
[23][34]刘三女牙,刘盛英杰,孙建文,等.智能教育发展中的若干关键问题[J].中国远程教育,2021,(4):1-7、76.
[24]刘进,钟小琴,李学坪.教育人工智能:前沿进展与机遇挑战[J].高等工程教育研究,2020,(2):113-123.
[25]胡珉琦.人工智能:为什么忧虑?[N].中国科学报,2016-4-1(1).
[28]吴河江,涂艳国,谭轹纱.人工智能时代的教育风险及其规避[J].现代教育技术,2020,(4):18-24.
[29]刘斌.人工智能时代教师的智能教育素养探究[J].现代教育技术,2020,(11):12-18.
[30]于家杰,刘伟,毛迎新.人工智能时代教师存在的价值[J].现代教育技术,2020,(7):21-27.
[31]亿欧智库.2019全球人工智能教育行业研究报告[OL].
[32]余胜泉.人工智能与教师协作 共创教育服务美好未来[OL].
[33]国务院.国务院关于印发新一代人工智能发展规划的通知[OL].